把脉IoT、手机、安防和自动驾驶芯片,AIIA DNN benchmark发布评测结果
6月28日,AIIA DNN benchmark v0.5基于端侧推断任务的深度神经网络处理器基准测试第二轮评估结果重磅发布。本轮参与评估的芯片及送测企业分别是:颖脉信息的UniSoc T710、启英泰伦的智能语音识别模组CI1006A1CSD02、赛灵思的ZCU104和高通的QRD855。在Android & Linux系统,六大典型应用场景的评测工具支持下,客观公正严谨的反映具有深度学习处理能力的处理器或加速器的性能水平的基准测试分数一一披露。
随着目前国家政策扶持力度的增加以及市场对AI芯片的热捧,AI芯片市场的发展形势一片大好。越过AI芯片市场发展刚刚起步时的蹒跚前行,如今在旺盛的市场需求下,企业将赢得更多一展抱负的绝佳时机。在本次评测过程中,AIIA总体组组长孙明俊表示:“测评的核心目的,就是要为市场提供一个客观的标尺”。
作为权威行业组织,AIIA致力于通过基准测试,切实反应当前市场上的AI芯片的能力,为各方企业选择真正满足需要的AI芯片提供科学、客观的参考依据,最终推动市场的健康发展。
在6月28日的2019中国人工智能峰会上,AIIA总体组组长孙明俊向业界正式发布了评估结果,并为参评企业颁发证书。
图1:AIIA总体组组长孙明俊发布第二轮评估结果
孙明俊表示,较首轮评测而言,这次的评估对象更加丰富且多元化,除了板卡和手机类设备外,增添了对语音以及FPGA板卡的评估。评测以行业应用角度区分被测对象为IoT、手机、安防和自动驾驶等应用领域。同时仍旧关注处理器分别在整型与浮点时的推断任务性能。
图2第二轮评测关键字
两轮端侧评估工作的完成,在评测指标和应用场景上都有了进一步的扩充。六种典型应用场景和18种网络模型,在目标识别、语义分割、人脸识别等多方面有了更精确的数据支撑。
AIIA DNN benchmark V0.5第二轮测试的具体情况(请点击查看评测结果报告)。
UniSoc T710——适用于手机终端,采用7nm工艺。参测两类场景五种模型,提供基于自家加速框架 PowerVR NN及Android NN两种加速方式。
智能语音识别模组CI1006A1CSD02——ASIC架构的DNN语音识别芯片,公布了分别在一般混响和大混响,声源多角度(1m,3m,5m),分别在安静、平稳噪声、非平稳噪声和自噪声条件下的四类指标结果。
ZCU104——嵌入式视觉应用评估套件,16nm工艺。参测场景五类七种模型,通过赛灵思提供的深度学习处理器DPU IP及边缘AI开发工具DNNDK实现。
QRD855——首个将5G,AI,XR商业化的移动平台,7nm工艺。参测四类场景五种模型,测试基于SNPE(v1.27.0)。
根据AIIA DNN benchmark V0.5版本的两轮测试结果,分别公布INT8及FP16手机类和板卡类的top1榜单。联盟将以定期公布榜单的方式传递最新数据。参与企业可委托中国信息通信研究院测试,并参与榜单发布。
企业刷榜方式简单而规范化:在指定模型、测试数据集、预处理方式、单线程推理任务的情况下,送测并按指定格式提交基准测试结果即可。
同时联盟也欢迎企业提交更具有代表性的测试场景,要求:提交原始FP32模型文件、并披露原始模型精度及训练数据集与相应前后处理方式。
未来,AIIA DNN benchmark以“版本迭代、不断丰富、不断完善”的工作方式,助力AI芯片行业发展。
●AIIA DNN benchmark v0.5 端侧第二轮基准测试结果发布